Vasilevsky sinh ngày 30 tháng 9 (lịch cũ của Nga là ngày 18 tháng 9) năm 1895 tại Novaya Golchikha. Bố ông, Mikhail Aleksandrovich Vasilevsky, là linh mục của nhà thờ Thánh Nicholas ở gần đó, còn mẹ ông, Nadezhda Ivanovna Sokolova, là con gái của một linh mục ở làng Ugletz bên cạnh. Theo như Vasilevsky kể lại, gia đình của ông rất nghèo, bố ông phải dành phần lớn thời gian kiếm tiền nuôi gia đình còn những đứa con nhà Vasilevsky đều phải ra đồng làm việc. Năm 1897, cả gia đình chuyển đến vùng Novopokrovskoe[1], tại đây ông bắt đầu đi học tại trường của nhà thờ. Năm 1909, Vasilevsky vào học tại Trường dòng Kostroma[2].